Nitish Srivastava
概述 (50-200字符)
Nitish Srivastava 是计算机科学家,Dropout 正则化方法的第一作者。2014 年作为第一作者在 JMLR 发表Dropout: A Simple Way to Prevent Neural Networks from Overfitting (2014 论文),与Geoffrey E. Hinton等人共同提出了这一深度学习标配技术。
关键内容 (≥300字符, 用双链)
- Dropout 论文:作为第一作者,Srivastava 与 Hinton、Alex Krizhevsky、Ilya Sutskever、Ruslan Salakhutdinov 合作,在 JMLR 发表了 Dropout 的正式论文。论文提出了训练时随机置零神经元的极简正则化方案,从集成学习、减少共适应、有性生殖类比三个角度解释了其有效性。
- 与 Hinton 团队的关系:Srivastava 是 Hinton 多伦多大学研究团队的成员,与 AlexNet 的核心作者群体(Krizhevsky、Sutskever)有直接合作。这一团队在 2012-2014 年间连续产出深度学习领域的里程碑成果,包括 AlexNet(2012)和 Dropout(2014)。
- 后续影响:Dropout 论文至 2024 年被引用超过 5 万次,是深度学习领域引用率最高的论文之一。Srivastava 作为第一作者,其名字与这一改变深度学习训练范式的技术永久关联。
来源
- [Srivastava, N., Hinton, G., Krizhevsky, A., Sutskever, I., & Salakhutdinov, R. (2014). JMLR, 15(1), 1929–1958.] — 原始论文
- [raw/articles/ai-papers/machine-learning/09_dropout_2014.md] — 源文件
相关
- Geoffrey E. Hinton — collaborated_with
- Alex Krizhevsky — collaborated_with
- Ilya Sutskever — collaborated_with
- Ruslan Salakhutdinov — collaborated_with
- Dropout: A Simple Way to Prevent Neural Networks from Overfitting (2014 论文) — first_author
- Dropout(随机失活) — co_invented